1
단단한 제약 조건을 넘어서: 라그랑주 프레임워크
MATH008Lesson 5
00:00
최적화의 일반적인 세계에서 제약 조건은 이진 벽과 같습니다: 당신은 안에 있거나 밖에 있습니다. 그러나 복잡한 시스템에서는 이러한 '단단한' 제약 조건이 수학적으로 강성 있게 작용할 수 있습니다. 라그랑주 프레임워크는 이를 넘어서는 기반을 제공하며, 제약 조건을 위반을 가중치 페널티로 포함하는 '확장된' 목적 함수로 변환합니다. 이것은 단지 기술이 아니라, 라그랑주 승수를 통해 제약 조건의 '비용'을 정량화하는 근간입니다.

1. 단단한 제약 조건에서 소프트 페널티로

표준 문제를 고려해 보세요: $f_i(x) \le 0$ 및 $h_i(x) = 0$ 조건 하에서 $f_0(x)$를 최소화하세요. '단단한' 제약 조건은 지시자 함수와 동일합니다:

$$I_-(u) = \begin{cases} 0 & u \leq 0 \\ \infty & u > 0 \end{cases}$$

라그랑주 구성은 이 무한한 점프를 선형 페널티로 대체합니다. 우리는 목적 함수에 제약 함수들의 가중합을 더합니다:

$$L(x, \lambda, \nu) = f_0(x) + \sum_{i=1}^m \lambda_i f_i(x) + \sum_{i=1}^p \nu_i h_i(x)$$

여기서 $\lambda_i$는 라그랑주 승수. 이것은 $i$번째 부등식의 영향을 조절하는 '부드러운' 페널티로 작용합니다. 중요한 점은, 지금 당장 볼록성을 가정하지 않는다는 것입니다. 이 프레임워크는 보편적입니다.

이중적 관점

우리는 라그랑주 이중 함수 $g(\lambda, \nu)$를 $x$에 대한 라그랑주 함수의 하한으로 정의합니다. 중요한 성질은 하한 성질: 임의의 $\lambda \succeq 0$에 대해 $g(\lambda, \nu) \le p^*$입니다. 이는 직접적으로 해결하기 어려운 문제의 최적값을 한정할 수 있게 해줍니다.

2. 사례 연구: 하이브리드 차량 제어

연료 소비와 배터리 수명을 균형 잡는 차량을 상상해 보세요. 제약 조건은 물리적인 것입니다: 전력 수요는 언제나 충족되어야 합니다.

  • 전력 균형: $P_{\text{req}}(t) = p_{\text{eng}}(t) + p_{\text{mg}}(t) - p_{\text{br}}(t)$
  • 배터리 역학: $E(t+1) = E(t) - p_{\text{mg}}(t) - \eta |p_{\text{mg}}(t)|$
  • 목표: 최소화 $F_{\text{total}} = \sum_{t=1}^{T} F(p_{\text{eng}}(t))$

라그랑주 프레임워크를 적용함으로써 배터리 용량 제약 조건은 그림자 가격. 컨트롤러는 현재 에너지의 '비용'(승수)과 연료 비용을 비교하여 연료를 태울지 배터리를 사용할지를 결정합니다.

🎯 핵심 원칙: 이중성과 타당성
하한 성질 $p^* \in [g(\lambda, \nu), f_0(x)]$는 $\lambda \succeq 0$이고 $g(\lambda, \nu) > -\infty$일 때만 의미가 있습니다. 이 관계는 비볼록 설정에서도 성립하지만, '이중성 갭'이 존재할 수 있습니다.